Lúc thành lập, Hội Liên hiệp Lao động Quốc tế là một liên minh của những người từ các phái xã hội chủ nghĩa khác nhau. Chỉ trong một thời gian ngắn, nó đã phát triển thành một phong trào lớn, với các liên đoàn địa phương ở nhiều nước đang phát triển mạnh mẽ các hoạt động của công nhân. Karl Marx là một trong những người lãnh đạo từ lúc ban đầu, luôn đắc cử mỗi khi đại hội của Hiệp hội được bầu lại.

Lúc đầu các thành viên IWA chỉ là nam giới, mặc dù trong tháng 4 năm 1865 nó đã đồng ý rằng phụ nữ có thể trở thành thành viên. Tại cuộc họp đại hội đồng IWA vào ngày 16 tháng 4 năm 1867, sau khi Harriet Law, người theo chủ nghĩa thế tục, nói chuyện về quyền của phụ nữ, hội đồng đã đồng ý mời bà tham dự các cuộc họp của họ sắp tới. Vào ngày 25 tháng 6 năm 1867 Law được kết nạp vào đại hội đồng, và trong năm năm tiếp theo là đại diện duy nhất của phái nữ.

Do sự đa dạng của các triết lý hiện diện trong Quốc tế thứ nhất, hiệp hội đã có mâu thuẫn từ đầu. Những sự phản đối đầu tiên ảnh hưởng của Marx đến từ phái Mutualists như Proudhon, người phản đối tư tưởng "độc tài cộng sản". Tuy nhiên, không lâu sau khi Mikhail Bakunin và những người theo chủ nghĩa vô chính phủ tham gia vào năm 1868, Quốc tế thứ nhất trở nên phân cực thành hai phe, Marx và Bakunin. Có lẽ sự khác biệt rõ ràng nhất giữa 2 nhóm là chiến lược đề xuất của họ để tiến tới xã hội chủ nghĩa. Những người vô chính phủ tập hợp xung quanh Bakunin, không chấp nhận sự lãnh đạo của trung ương, ưa chuộng cuộc "đấu tranh kinh tế trực tiếp chống lại chủ nghĩa tư bản nhưng không tham dự vào các vận động chính trị quốc hội." Quan điểm của chủ nghĩa Mác, tại thời điểm đó, tập trung vào việc thành lập các đảng phái Công nhân, dưới sự lãnh đạo của trung ương, tham dự vào các hoạt động của quốc hội.